跳到主要内容

Serverless API 应用集成指南

Serverless API 提供了六大类、数十个模型 API,只需调用 API 就可以将其强大的功能集成到您的应用中。本文为大家推荐了一些可集成 Serverless API 的应用,以及详细的集成配置指南。

这些应用运行我们日常使用的平台上,如 Windows、mac 上的客户端、网页应用、浏览器插件,移动端 APP 等,通过使用这些应用,即可释放 Serverless API 的模型能力,从而提升您使用 AI 的便捷性。以下是应用的访问地址和简介:

分类应用名称简介
客户端类Chatbox一个支持多种流行LLM模型的桌面客户端,可在 Windows、Mac 和 Linux 上使用
OpenCatOpenCat 是一个 AI 对话聊天客户端,支持 iOS 和 macOS
Dify一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用
Nextchat只需轻点几下,就能在自己的服务器上搭建聊天服务
Pal Chat一款可以在 iPhone 或 iPad 上使用的 AI 助手
EnconvoEnconvo 是 AI 时代的启动器,是所有AI功能的入口,也是一位体贴的智能助理.】
Cherry Studio一款为创造者而生的桌面版 AI 助手
浏览器插件沉浸式翻译一款双语对照网页翻译插件,简洁,高效
ChatGPT Box将 LLM 作为私人助手,整合到你的浏览器中
划词翻译整合了多家翻译 API 以及 LLM API 的浏览器翻译插件
欧路翻译提供鼠标划词搜索、逐段对照翻译、PDF 文献翻译功能。可以使用支持 DeepSeek AI, Bing、GPT、Google 等多种翻译引擎
IM 助手茴香豆一个集成到个人微信群/飞书群的领域知识助手,专注解答问题不闲聊
QChatGPT高稳定性、支持插件、实时联网的 LLM QQ / QQ频道 / One Bot 机器人
VScode 插件Continue开源 IDE 插件,使用 LLM 做你的编程助手

以上应用均支持集成 Serverless API,配置操作也很简单,在选择 API 配置的时候,因为 Serverless API 与 OpenAI API 格式兼容,模型提供方只需要选择 OpenAl APl Compatible。这个时候通常需要填写 API 调用地址、API key 等信息,下面是操作步骤:

操作步骤

1. 获取 API 路径:

请在 Serverless API 页选择你想要使用的模型,点击调用,获取它的 API 调用地址,如下所示:

https://ai.gitee.com/api/serverless/<Model>/chat/completions

alt text

2. 通过上面获取的路径,通常需要将路径拆分,填写下方信息:

alt text

3. 获取 API key:

前往 Gitee AI 工作台 - 设置 - 访问令牌,创建你的 API Key

alt text

在一些业务场景中,可能需要让客户端直接调用 Serverless API ,这时候需要将 Access Token 传递给客户端,为了安全起见,建议将 Access Token 存储在后端,通过后端服务代理调用 Serverless API。

如果希望直接在客户端使用 Access Token ,Gitee AI 提供了创建临时 Token 的接口,该接口的详细使用方法请查看 创建临时 Access Token

集成 OpenCat

OpenCat 是一个 AI 对话聊天客户端,支持 iOS 和 macOS,在对话框内,可以快速的使用 prompt,展开新的对话,通过对接一些主流平台的 API ,可以选择与多种模型聊天。

配置指南

  1. 下载 OpenCat

  2. 进入setting——Providers

  3. 输入 API Domain、API Path、API Key

  • API Domain:https://ai.gitee.com/
  • API Path:不同模型的路径不同,示例:api/serverless/<Model>/chat/completions
  • API key: 在 Gitee AI 工作台-设置复制访问令牌(API key)
  1. 点击验证,提示 Validate Success 即可

alt text

集成沉浸式翻译

Immersive Translate 是一款浏览器插件,专注于提供高效的双语对照翻译服务。它支持网页、PDF、EPUB 等多种格式的翻译,能够实时翻译外语内容,并支持视频双语字幕翻译。插件提供了便捷的鼠标悬停翻译和输入框翻译功能,是提升信息获取效率的利器。

配置指南

  1. 安装成功后,进入 Immersive Translate 插件 - “翻译服务”,滑到最底部添加自定义翻译服务。

alt text

  1. 在设置页面输入以下关键信息:
  • 自定义 API 接口地址: 此处填写 Serverless API 完整的调用地址
  • APIKEY:在 Gitee AI 工作台 - 设置 - 访问令牌,复制访问令牌(API key)
  • 每秒最大请求数:1
  • 每次请求最大文本长度:1200
  • 每次请求最大段落数:8
  1. 点击页面上方“点此测试服务”,显示“验证成功”即配置完成

alt text

集成 Dify

Dify 是一款开源的大语言模型(LLM))应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

配置指南

Serverless API 支持在 Dify 中调用,使用步骤如下

  1. 登录 dify,并按照下图操作,进入 API 配置页面

alt text

  1. 填写 API 信息配置
  • 模型名称:无格式要求
  • API key:在 Gitee AI 工作台-设置复制访问令牌(API key)
  • API endpoint URL:在 Serverless API 调用窗口获取,此处无需粘贴 /chat/completions
  • Completion mode:选择对话类型
  • 点击保存,保存会触发请求,保存成功即可使用

alt text

alt text

集成 Nextchat

Nextchat 是一款网页端的 AI 对话工具,支持自定义大模型。还支持在自己的服务器上搭建聊天服务。

配置指南

  1. 点击设置,并滚动至自定义接口,选择 OpenAI

  2. Serverless API 链接,在调用窗口获取,填写完整 URL,示例:https://ai.gitee.com/api/serverless/Qwen2-7B-Instruct/chat/completions

alt text

  1. 最后,创建新聊天,点击对话设置,选择刚刚配置的模型,就可以在对话框内调用模型了。

alt text

alt text

集成 ChatGPTBox

ChatGPT Box 是一款浏览器插件,支持在浏览器内随时呼出 AI 对话框,并适用于手机端浏览器。支持自定义模型 API,它还提供框选内容执行任务、静态卡片浮出聊天框、代码高亮和复杂公式渲染、对话记录保存等功能。

配置指南

下载 ChatGPTBox 并安装成功后,点击插件图标,按照以下要求操作:

  • 选择自定义模型
  • 模型名称无严格要求
  • API 地址:填写完整的 Serverless API 地址
  • API key:在 Gitee AI 工作台-设置复制访问令牌(API key)

alt text

更多应用,请查看文章顶部表格,如有疑问或建议,请随时联系我们